When Gradients Collide: Failure Modes of Multi-Objective Prompt Optimization for LLM Judges
文本梯度多目标优化LLM裁判提示的失败模式：梯度稀释与指令干扰
🧭 LLM裁判多目标提示优化 ★ 深度解读
Amazon · IIT Jodhpur
揭示多任务文本梯度优化中梯度稀释（特异性降低59%）和推理时指令干扰两大致命瓶颈
📌 工作参考价值（4 点）
- 多目标评估提示优化需警惕耦合程度：当 LLM 裁判需要同时评估多个维度（如流畅度、相关性、一致性），将所有维度放在一个梯度 LLM 中联合优化会导致梯度特异性从 9.0 暴跌到 3.7（下降 59%）。在业务中做自动提示调优时，应尽量保持『每个维度独立生成梯度，再合并』的 SSC 模式，而不要过早将所有维度混合输入梯度 LLM。
- 推理时指令长度不对称会损害整体性能：即便每个维度都有独立的、经过优化的指令，直接拼接到同一个 prompt 中，Spearman 相关性也会下降 5.3 个点。原因是详细指令会抢占模型注意力。在电商商品评价、多维度质量打分等场景，如果使用单个 LLM 一次输出多个分数，必须控制各维度指令的长度比例，避免某个维度过于冗长。
- 可用梯度特异性指标监控优化质量：文中定义的『梯度特异性』（gradient specificity）可由 LLM 自动打分（1-10 分），适合作为多目标提示优化的过程诊断指标。在自动化提示工程 pipeline 中，一旦检测到特异性骤降，说明梯度信号已稀释，可触发回退到独立梯度模式或停止优化，防止无意义消耗。
- 超体积指标与平均性能的背离值得注意：在联合优化（CCC）模式下，虽然平均 Spearman 停滞，但超体积指标（HVI）持续增长，说明探索到了在各维度上有差异的特化提示。这对需要保留多样性候选的 Agent 协作场景可能有参考：多智能体 prompt 优化可以先用联合模式产生一组 Pareto 解，再从中人工精选。